[Перевод] 67 iPhone против одной H100: почему гибкость не побеждает чистую мощность

В мире ИИ часто ищут нестандартные пути, пытаясь оптимизировать стоимость вычислений.

Одна из таких идей — использование массива потребительских устройств, например смартфонов, для замены дорогостоящих серверных ускорителей. На первый взгляд, арифметика кажется убедительной: сложил мощности — и получил аналог.

Но так ли это на практике? В этой статье мы детально разберем, почему прямое сравнение пиковой производительности в TFLOPS вводит в заблуждение и какие ключевые факторы — от архитектурных особенностей до инфраструктурных издержек — делают альтернативу неподходящей.

Источник: Хабрахабр